Onderzoekers waarschuwen het publiek: "Cybercriminelen kunnen de verwarming in huis aanzetten, video's maken zonder dat u het merkt en zelfs uw ramen openen."

Cybercriminelen hebben slechts een uitnodiging nodig om de controle over Gemini over te nemen en verbonden apparaten in een thuisnetwerk te manipuleren. Dit type aanval wordt 'promptware' genoemd. Promptware maakt gebruik van de integratie van grote taalmodellen (LLM's) in applicaties om schadelijke prompts te introduceren die de AI-assistenten die deze modellen integreren, in gevaar kunnen brengen.

Het risico voor gebruikers is reëel, zoals aangetoond door drie onderzoekers van de Universiteit van Tel Aviv (Israël): Ben Nassi, Stav Cohen en Or Yair. In hun werk gebruikten ze promptware-aanvallen gericht op Google's Gemini-assistent om toegang te krijgen tot de Workspace-architectuur en smarthome-apparaten te manipuleren of informatie uit e-mails te halen.

De variant van promptware die ze gebruikten, maakt het mogelijk om kwaadaardige prompts in Gemini te plaatsen via e-mails, agenda-uitnodigingen of gedeelde documenten. Cybercriminelen sturen bijvoorbeeld een uitnodiging naar een Gmail- of Agenda-account van een slachtoffer. Wanneer het slachtoffer informatie over die e-mail opvraagt bij Gemini, wordt de kwaadaardige prompt geactiveerd en wordt de assistent gehackt.

Hierdoor ontstaat de mogelijkheid om de diensten en apparaten die het slachtoffer met Gemini gebruikt, te manipuleren. Zo kan hij bijvoorbeeld makkelijker de thermostaat, de verlichting in huis of toegang tot e-mail regelen .

Hiermee kunnen cybercriminelen het licht uitdoen, de verwarming aanzetten, video's streamen zonder dat het slachtoffer het weet , agenda-items verwijderen, gegevens uit e-mails halen, de locatie van het slachtoffer achterhalen en zelfs een raam openen.

Dit type aanval heeft invloed op Gemini, zowel op mobiele apps als op webapps, en ook op Google Assistent. Volgens de onderzoekers vormt 73 procent van de bedreigingen die ze in hun onderzoek analyseerden een zeer kritiek risico. Ze meldden dat ze Google in februari al op de hoogte brachten van deze bedreiging. Gedurende deze periode heeft het technologiebedrijf "meerlaagse verdedigingsmechanismen" geïmplementeerd om de geïdentificeerde beveiligingsproblemen te beperken.